젠센 부등식

1. 개요 및 진술2. 증명3. 활용4. 확장5. 관련 문서

1. 개요 및 진술 [편집]

Jensen Inequality
옌센 부등식이라고도 한다. 덴마크의 수학자 요한 옌센(Johan Jensen)에 의해 발표된 부등식이다. 수학경시 등 고교 과정의 이산적인 버전.

함수 $f:I\to R$ 이 볼록함수라고 하자. 그러면, 임의의 $x_1,x_2,\cdots,x_n\in I$ 와 $\lambda_1+\lambda_2+\cdots+\lambda_n=1$ 을 만족하는 임의의 음이 아닌 실수 $\lambda_1,\lambda_2,\cdots,\lambda_n$ 에 대하여 $\lambda_1 f\left(x_1\right)+\lambda_2 f\left(x_2\right)+\cdots+\lambda_n f\left(x_n\right)\geq f\left(\lambda_1 x_1+\lambda_2 x_2 +\cdots+\lambda_n x_n\right)$ 이다. 만약 $f$ 가 오목함수이면, 위 부등식의 부호가 반대이다.

또는 확률론 등에서 나오는 일반화된 버전

볼록함수 $f$ 와 적분가능한 확률변수 $X$ 에 대해, $\mathbb{E} \left[ f(X) \right] \ge f \left( \mathbb{E}[X] \right)$ 가 성립한다.[1]

이 있다. 볼록함수에 대해서는 문서 참조.[2] 아래의 버전에서

X

를

P(X=x_i) = \lambda_i

인 이산확률변수로 설정하면 위의 버전이 됨을 확인할 수 있다.

한마디로 요약하면 아래로 볼록한 함수에서 함숫값의 산술평균값이 산술평균값의 함숫값보다 크거나 같다는 내용이다.
수학 경시대회의 젠센 부등식은 절대부등식을 증명하는 데에 있어 반드시 알아놔야 할 아주 강력한 부등식으로 평가받는다. 특히 수학 경시대회에서 출제된 부등식 문제가 볼록 (오목) 함수에 관한 것이라 추측이 가능하면 대부분 이 젠센 부등식으로 해결이 가능하다. 합이 주어진 상황에서 함수값의 최적화를 생각하는 사실상의 일반적인 방법으로 생각할 수 있다.
물론 젠센 부등식의 진가는 경시대회에 국한되지 않는다. 마치 벡터만 있으면 나오는 코시-슈바르츠 부등식처럼, 볼록성과 관련된 다방면에 걸친 현상을 설명하는 근본적인 부등식으로 간주되어 확률론, 통계학, 통계 역학, 금융수학 등 정말 다양한 분야에서 자연스럽게 등장하곤 한다.

2. 증명 [편집]

f

가 두번 미분가능할 때의 증명은 다음과 같다.

x_0 = \mathbb{E}[X]

에 대해 볼록함수에 대한 부등식

f(x) \ge f'(x_0) (x-x_0) + f(x_0)

을 생각한다. (증명은 구간

[x_0,x]

또는

[x,x_0]

에서 평균값 정리를 쓰면 된다.) 여기서

x=X

로 놓고 기대값을 취해주면 끝. 미분가능하지 않은 일반적인 볼록함수에 대해서도, 어떤 상수

a

가 존재해

f(x) \ge a (x-x_0) + f(x_0)\quad\cdots \left(*\right)

를 만족시킨다는 사실은 변함없기 때문에 그대로 진행하면 된다.

(*)의 자세한 증명

구간

[a,b]

에서의 평균변화율을

df_{p,q} = \dfrac{f(q)-f(p)}{q-p}

라 표기하자. 다음을 먼저 증명한다.

$p < q < r$ 에 대해 $df_{p,q} \le df_{p,r} \le df_{q,r}$ 이다.

이는 볼록함수의 정의로부터 따라나오는

(r-p)f(q) \le (r-q)f(p) + (q-p)f(r)

을 변형시켜서

(r-p)(f(q)-f(p)) \le (q-p)(f(r)-f(p))

,

(r-p)(f(q)-f(r)) \le (r-q)(f(p)-f(r))

등을 얻어내면 된다. 위의 성질을 이용하면

h_1 > h_2 > 0

에 대해

df_{x_0-h_1, x} \le df_{x_0-h_2, x} \le df_{x_0,x_0+h_2} \le df_{x_0,x_0+h_1}

을 알 수 있고, 따라서 좌미분

d_{-}f(x_0) = \liminf_{h \rightarrow 0+} df_{x_0-h,x_0}

와 우미분

d_{+}f(x_0) = \liminf_{h \rightarrow 0+} df_{x_0,x_0+h}

가 존재하고

d_{-}f(x_0) \le d_{+}f(x_0)

임을 알 수 있다. 이제

a

를

[d_{-}f(x_0),d_{+}f(x_0

)] 사이의 아무 숫자로 잡으면,

x > x_0

에 대해

f(x) - f(x_0) = df_{x_0,x}(x-x_0) \ge d_{+}f(x_0) (x-x_0) \ge a (x-x_0)

이고,

x < x_0

에 대해서는

f(x) - f(x_0) = df_{x_0,x}(x-x_0) \ge d_{-}f(x_0) (x-x_0) \ge a (x-x_0)

이므로 성립한다.

경시대회 등에서 이산적인 경우는 보통 수학적 귀납법을 이용해 다음처럼 증명한다.

n=2

일 때는 볼록함수의 정의에 의해 성립한다.
이제

n=k

일 때 성립한다고 가정하자.

\lambda_k>0

이고

\lambda_1+\lambda_2+\cdots+\lambda_k+\lambda_{k+1}=1

일 때

\sum_{i=1}^{k+1}\lambda_i f\left(x_i\right)=\left(1-\lambda_{k+1}\right)\sum_{i=1}^{k}\frac{\lambda_i}{1-\lambda_{k+1}}f\left(x_i\right)+\lambda_{k+1}f\left(x_{k+1}\right)\quad\cdots \left(1\right)

이다.
이 때

\lambda_1+\lambda_2+\cdots+\lambda_k=1-\lambda_{k+1}

이므로

\sum_{i=1}^{k}\frac{\lambda_i}{1-\lambda_{k+1}}=1

이다.

n=k

일 때 성립한다고 가정했으므로

\sum_{i=1}^{k}\frac{\lambda_i}{1-\lambda_{k+1}}=1

일 때

\sum_{i=1}^{k}\frac{\lambda_i}{1-\lambda_{k+1}}f\left(x_i\right)\geq f\left(\sum_{i=1}^{k}\frac{\lambda_i x_i}{1-\lambda_{k+1}}\right)

가 성립한다.
이 식을

\left(1\right)

에 대입하면

\sum_{i=1}^{k+1}\lambda_i f\left(x_i\right)=\left(1-\lambda_{k+1}\right)\sum_{i=1}^{k}\frac{\lambda_i}{1-\lambda_{k+1}}f\left(x_i\right)+\lambda_{k+1}f\left(x_{k+1}\right)\geq\left(1-\lambda_{k+1}\right)f\left(\sum_{i=1}^{k}\frac{\lambda_i x_i}{1-\lambda_{k+1}}\right)+\lambda_{k+1}f\left(x_{k+1}\right)\geq f\left(\sum_{i=1}^{k+1}\lambda_i x_i\right)

가 성립하게 되어

n=k+1

일 때도 성립한다.

함수

f

가 오목함수일 때도 같은 방법으로 증명이 가능하다.

f

가 오목함수이면

-f

가 볼록함수이므로 부호만 바꿔주면 된다.

3. 활용 [편집]

f\left(x\right)=\ln x

,

\lambda_i=\frac{1}{n}

라 하자. 로그함수는 오목함수이므로 위 부등식의 방향을 뒤집고 잘 정리해주면 산술·기하 평균 부등식이 튀어나온다! 한 줄 짜리 증명이 되어버리는 것. 이 외에도 삼각형의 세 각

\alpha,\beta,\gamma

에 대해

\sin\alpha+\sin\beta+\sin\gamma\leq\frac{3\sqrt{3}}{2}

같은 유명한 부등식을 증명하는데도 젠센 부등식이 가장 효과적이다.

L^p

공간을 연구할 때 쓰이는 횔더부등식 (Hölder's inequality)를 유도할 때 중요하게 쓰이는 부등식이다. 또한 해당 부등식으로부터 민코프스키 부등식 (Minkowski inequality) 를 유도하면 해당 공간에 노름을 정의할 수 있다.

여러 응용수학에서도 확률변수와 볼록함수가 같이 튀어나오면 무조건 사용되는 부등식이다. 정보 이론에서 나오는 엔트로피에 대한 Gibbs 부등식

- \sum p_i \log p_i \le - \sum p_i \log q_i

이나, 통계역학의 여러 상황들이라던지. 금융수학 계열에서도 많이 등장하는데, 보험계리사 보험수리 시험에 나오는 젠센 부등식 (2013년) 이나 FRM: Market Risk management - fixed income 파트에서 젠센 부등식을 채권의 볼록성과 연관지어 학습하게 된다거나(증명과정까지는 요구하지 않지만 기본적인 concept을 이해하고 계산까지 할 줄 알아야 한다.) 등등의 사례가 있다.

4. 확장 [편집]

개요에서 언급했듯이 젠센 부등식은 산술평균값의 함숫값과 함숫값의 산술평균값을 비교한 부등식이다. 산술평균 대신 다른 평균 (기하평균, 조화평균, 멱평균, 가중치 멱평균)을 넣어도 가능하다. 주의할 점은, 이 때는 함수를 그래프로 나타내었을 때 꼭 아래로 혹은 위로 볼록일 필요는 없다는 것이다.

양의 실수

x_1

,

x_2

,

\cdots

,

x_n

의

r

차 멱평균을

M_n^r \left\{ x_i \right\}

라고 하자. 즉,

M_n^r \left\{ x_i \right\} = \left\{ \begin{array}{l} \sqrt[r]{\dfrac{x_1^r + x_2^r + \cdots + x_n^r}{n}} & r \neq 0\\ ~ \\ \sqrt[n]{x_1 x_2 \cdots x_n} & r=0\end{array} \right.

이다.

그리고, 양의 실수

x_1

,

x_2

,

\cdots

,

x_n

의 합이

1

이고 모두 양수인 가중치

\lambda_1

,

\lambda_2

,

\cdots

,

\lambda_n

에 대한

r

차 가중치멱평균을

M_n^r \left\{ x_i | \lambda_i \right\}

라고 하자. 즉,

M_n^r \left\{ x_i ,\lambda_i \right\} = \left\{ \begin{array}{l} \sqrt[r]{\lambda_1 x_1^r + \lambda_2 x_2^r + \cdots + \lambda_n x_n^r} & r \ne대 0\\~\\ x_1^{\lambda_1} x_2^{\lambda_2} \cdots x_n^{\lambda_n} & r=0\end{array} \right.

이다.

멱평균으로 일반화한 젠센 부등식은 다음과 같다.

함수 $f:I \rightarrow R$ 와 실수 $r$ 이 주어져 있다. 임의의 $x_1$ , $x_2 \in I$ 에 대하여, $M_2^r \left\{ f(x_i) \right\} \ge (\le) f \left( M_2^r \{ x_i \} \right)$ 이 성립하면, 임의의 자연수 $n$ 과 임의의 $x_1$ , $x_2$ , $\cdots$ , $x_n$ 에 대하여 $M_n^r \left\{ f(x_i) \right\} \ge (\le) f \left( M_n^r \{ x_i \} \right)$ 이 성립한다.

그리고 가중치 멱평균으로 일반화한 젠센부등식은 다음과 같다.

함수 $f:I \rightarrow R$ 와 실수 $r$ 이 주어져 있다. 임의의 $x_1$ , $x_2 \in I$ 와 임의의 합이 $1$ 인 양의 실수 $\lambda_1$ , $\lambda_2$ 에 대하여, 부등식
$M_2^r \left\{ f(x_i) |\lambda_i \right\} \ge (\le) f \left( M_2^r \{ x_i |\lambda_i \} \right)$ 이 성립하면, 임의의 자연수 $n$ 과 임의의 $x_1$ , $x_2$ , $\cdots$ , $x_n$ , 그리고 합이 $1$ 인 임의의 양의 실수 $\lambda_1$ , $\lambda_2$ , $\cdots$ , $\lambda_n$ 에 대하여 $M_n^r \left\{ f(x_i) |\lambda_i \right\} \ge (\le) f \left( M_n^r \{ x_i |\lambda_i \} \right)$ 이 성립한다.

하지만, 이게 끝이 아니다! 위 젠센 부등식을 더욱 일반화할 수 있는데, 일반화 내용은 부등식 양변의 멱평균의 차수가 같을 필요가 없다는 것이다. 즉, 멱평균과 가중치 멱평균으로 더욱 일반화된 젠센 부등식은 각각 다음과 같다.

함수 $f:I \rightarrow R$ 와 실수 $r$ , $s$ 가 주어져 있다. 임의의 $x_1$ , $x_2 \in I$ 에 대하여, $M_2^r \left\{ f(x_i) \right\} \ge (\le) f \left( M_2^s \{ x_i \} \right)$ 이 성립하면, 임의의 자연수 $n$ 과 임의의 $x_1$ , $x_2$ , $\cdots$ , $x_n$ 에 대하여 $M_n^r \left\{ f(x_i) \right\} \ge (\le) f \left( M_n^s \{ x_i \} \right)$ 이 성립한다.

함수 $f:I \rightarrow R$ 와 실수 $r$ , $s$ 가 주어져 있다. 임의의 $x_1$ , $x_2 \in I$ 와 임의의 합이 $1$ 인 양의 실수 $\lambda_1$ , $\lambda_2$ 에 대하여, 부등식
$M_2^r \left\{ f(x_i) |\lambda_i \right\} \ge (\le) f \left( M_2^s \{ x_i |\lambda_i \} \right)$ 이 성립하면, 임의의 자연수 $n$ 과 임의의 $x_1$ , $x_2$ , $\cdots$ , $x_n$ , 그리고 합이 $1$ 인 임의의 양의 실수 $\lambda_1$ , $\lambda_2$ , $\cdots$ , $\lambda_n$ 에 대하여 $M_n^r \left\{ f(x_i) |\lambda_i \right\} \ge (\le) f \left( M_n^s \{ x_i |\lambda_i \} \right)$ 이 성립한다.

증명은 멱평균 부등식을 이용할 경우

n

에 대한 확장된 귀납법 (즉,

n

이

2

의 거듭제곱일 때 수학적 귀납법으로 증명하고,

2

의 거듭제곱이 아닌 경우를 나중에 증명하는 방법)으로 증명하고, 가중치 멱평균 부등식을 이용할 경우

n

에 대한 일반적인 수학적 귀납법을 이용하면 된다.

5. 관련 문서 [편집]

[1]

f(X)

가 적분가능할 필요는 없다.

f(X)

의 음수 부분이 적분가능하며, 양수 부분의 적분이 발산하는 경우가 이에 해당한다. 저 부등식은 그대로 성립.[2] 간단히 설명하면, 그래프가 아래로 볼록하게 생긴 함수를 볼록함수라 한다. 즉, 그래프 위의 어느 두 점을 찍더라도 그 점을 이은 선분보다 그래프가 밑에 있다.